即時快訊
「公益同行・原社共好」 29家績優合作社齊聚華山 公彩成果展現就業與福利新動能 孕育兆美元輝達的傳奇美式餐廳 創辦紀念座位牌保留至今 美國屋頂太陽能發電量近十年暴增近五倍 全球運動AI市場名單出爐 日本企業掛零歐美科技巨頭強勢壟斷 創投看好AI降低門檻 一人微型創業成美國就業新趨勢 年末聚會前的輪廓焦慮?醫師 : 「看不出做過」成自然美感新趨勢 印度航太新創搶攻火箭引擎商機 獲利基訂單拚太空產業分工 葡萄牙搶攻美國資本 美資存量翻倍衝破 160 億歐元 音速小子35週年動畫短片登場 金屬索尼克反轉抉擇成亮點 PC顯卡與主機GPU差在哪?硬體整合與著色器機制成效能分水嶺
圖/示意圖
科技生活

·5 months ago·葉安庭
#人工智慧#軍事應用#五角大廈#Anthropic#倫理爭議#自主武器
圖/示意圖
圖/示意圖
商傳媒|葉安庭/綜合外電報導
摘要

美國五角大廈積極推動AI軍事應用,卻因新創公司Anthropic拒絕放寬自主武器與大規模監控限制,雙方鬧上法院。此事件凸顯AI在軍事決策中面臨的倫理與問責挑戰。

隨著人工智慧(AI)技術快速融入作戰室,美國五角大廈正積極將AI整合到軍事應用中。然而,這項趨勢也引發了科技公司與政府間的倫理挑戰與法律爭議。

新創AI公司Anthropic近期因拒絕放寬對自主武器和大規模監控的限制,而與五角大廈對簿公堂。據路透社報導,Anthropic被美國政府列為「供應鏈風險」,此舉被視為前所未有,也引發其他科技業者的寒蟬效應。對此,Helen Toner(Georgetown's Center for Security and Emerging Technology 代理執行董事兼前OpenAI董事會成員)表示,這是一項極不相稱的措施,政府恐難在法庭上站穩腳跟。

這並非美國軍方首次面臨科技公司的抵制。早在2018年,Google就曾因內部員工反對其參與Maven專案(一項利用AI分析圖像以輔助瞄準決策的計畫),最終未續簽與美國國防部的合約。Helen Toner指出,五角大廈將Anthropic的立場視為2018年Google事件的重演,認為該公司不願提供軍方所需的支援。

與此同時,另一家領先的AI公司OpenAI則逐步深入美國政府的機密軍事專案,最終採用了五角大廈「所有合法用途」的AI使用標準。然而,OpenAI與Anthropic都曾表示,使用AI於自主武器系統是適當且合理的,關鍵在於AI的成熟度與具體實施方式。Helen Toner觀察到,儘管AI開發者意識到技術的潛在風險,但設定並堅持「紅線」仍極具挑戰性。

目前,美國國防部正針對一項發生在US Iran war期間、造成約170人死亡的Minot女校空襲事件展開調查,並探究是否有AI涉入瞄準決策。Helen Toner強調,無論AI是否參與,問責制都至關重要,尤其當AI可能影響公眾無法得見的決策時。

AI在軍事上的應用已超越單純的圖像分類,擴展到資訊處理和行政任務,例如利用大型語言模型協助建立盟友間的資訊共享文件。AI的角色更傾向於「決策支援系統」,而非完全自動化。來自Elastic的Elasticsearch總經理Ajay Nair從商業應用角度強調,無論是何種應用,信任、情境、控制與問責都是導入AI前必須考量的關鍵要素。新加坡數碼發展及新聞部今年稍早也推出AI治理框架,旨在引導企業負責任地部署AI Agent(自主人工智慧助理),並強調人類最終仍需負責監督。

Helen Toner認為,公眾對AI在國防領域的應用存在普遍疑慮和恐懼,尤其是在涉及生死的決策上。她指出,AI並非無懈可擊或客觀中立,它可能犯錯並帶有偏見。隨著AI技術實現過去不可能的大規模監控與數據收集,社會亟需就此展開公開討論,並重新審視現行法律是否足以應對。


在 Google 搜尋的熱門報導中優先看到商傳媒
加入為 Google 偏好來源